Ethics Training Agents: Facilitating Group-Based Ethics Education with Role-Playing and Discussion for Ethical Reflection and Exploration
伦理培训智能体：角色扮演与讨论驱动的群体伦理教育系统
🧭 多智能体协作 · 伦理教育
KAIST · Georgia Institute of Technology
用多 LLM 智能体扮演不同伦理立场并配主持人，构建结构化人机群体讨论，提升伦理敏感度
📌 工作参考价值（4 点）
- 多智能体角色化设计：在电商/推荐场景可模拟买家、卖家、平台、监管等多方利益相关者，把产品策略或算法伦理评审变成多智能体讨论，提前暴露风险；给每个 agent 明确价值取向和发言约束，比单一 LLM 自问自答更容易产生对抗性视角。
- 引入 moderator agent 做结构化协调：负责话题推进、发言顺序、冲突收敛和纪要，这对多 agent 讨论质量很关键，可直接复用到 RAG/Agent 工作流中的多步规划与 orchestration。
- 人机混合群体讨论的评估方法：借鉴其用户研究设计，对落地 Agent 产品做过程性指标（参与感、视角采择、协调效率）和结果性指标（决策质量/敏感度）分开测量，而不要只看最终推荐效果。
- 局限：研究为伦理教育场景、用户规模 45 人，业务可借鉴点主要在 agent 编排与 human-in-the-loop 讨论设计，不直接涉及生成式推荐或 query 策略。